Eliezer Yudkowsky "Excluding the Supernatural"
The basic error of anthropomorphism, and the reason why supernatural explanations sound much simpler than they really are, is your brain using itself as an opaque black box to predict other things labeled "mindful". Because you already have big, complicated webs of neural circuitry that implement your "wanting" things, it seems like you can easily describe water that "wants" to flow downhill—the one word "want" acts as a lever to set your own complicated wanting-machinery in motion. 関数の複雑さをあるプログラミング言語内での実装の長さとして測る (ソロモノフ帰納法、コルモゴロフ複雑性) ときに、"eval"関数 を、その言語内で自分の言語自身のインタプリタを実装する困難さがどれくらいかに関わらず、短く書ける関数として扱うこと
ある形式体系において、証明可能性述語を、その体系内において自分自身による 証明可能性を表現する (ゲーデル数などを使って) ときの複雑さがどれくらいかに関わらず、単純な概念として扱うこと
そのようなプログラミング言語の実装が、他のプログラミング言語の実装に比べて複雑なわけではないので、コルモゴロフ複雑性が言語に相対的になってしまう問題に対し、「そのプログラミング言語自体を他の言語で実装した場合の長さを考える」というふうに言った場合には、あまり複雑でないことになってしまう
目的論が単なる価値の最大化と同一視でき、価値が単純であるならば、それは (離れた位置の情報を直接取得できない) 現実の物理法則のもとで目的論を実装すると複雑になってしまうというだけで、何らかのプログラミング言語で目的論を実装するのはおそらく複雑ではなく、目的論がアルゴリズム的に複雑とは言えなそう
@fadis_: グラフィック畑にはよく「こんな状態のシーンを描きたいんだけど、物理シミュレーションの結果この状態に至る初期状態は何でしょう」という難題が生じて、昔は職人さんがトライ&エラーしてたんだけど最近は物理シミュレーション全体を微分可能にして誤差逆伝播で初期状態まで遡る猛者論文が増えた これはまあ複雑の側に入るだろうけども
しかし計算量を気にしないなら、最大なものを総当り的に探してもいいわけで